Khi các dân tộc Hồ từ phương bắc tràn xuống đánh chiếm miền bắc Trung Quốc nhân loạn bát vương, nhà Tấn suy yếu phải rút về phía nam, đóng đô ở Kiến Khang[4].

Miền bắc, các tộc Hồ gồm Hung Nô, Yết, Chi, Tiên Ti, Khương đánh lẫn nhau và chia làm nhiều nước. Từ năm 350, nước Tiền Tần do thủ lĩnh người Chi (hay Đê 氐) là Phù Hồng sáng lập, dần dần lớn mạnh dưới thời vua thứ 4 là Phù Kiên - một ông vua mạnh mẽ và có tham vọng lớn lao[2]. Phù Kiên có mưu sĩ người Hán là Vương Mãnh trợ giúp, lần lượt tiêu diệt các nước Hồ phương bắc vào năm 376. Về cơ bản, lần đầu tiên Phù Kiên thống nhất toàn miền bắc Trung Quốc kể từ năm 304.

Ngay trước khi Phù Kiên thống nhất miền bắc, năm 375, Vương Mãnh qua đời. Tuy nhiên, ý định nhất thống Ngũ Hồ của ông tiếp tục được thực hiện. Trước lúc lâm chung, Vương Mãnh nói với Phù Kiên:

Tuy nhiên, sau khi Vương Mãnh chết, Phù Kiên tiếp tục diệt được nước Đại để làm chủ toàn miền bắc nên rất tự tin vào sức mạnh của mình. Ông thu dụng nhiều tướng sĩ các tộc Ngũ Hồ khác thành một đội quân đông đảo.

Phía Đông Tấn, theo đánh giá của các sử gia thì tình hình đúng như nhận định của Vương Mãnh. Dù trước đó đôi lúc có sự tranh chấp nội bộ như loạn Vương Đôn, quyền thần Hoàn Ôn, nhưng sau khi Hoàn Ôn mất (373), nội bộ Đông Tấn khá hòa thuận. Cầm quyền trong triều là thừa tướng Tạ An và Vương Bưu Chi đều là danh sĩ đương thời, có tài năng. Bên ngoài, các tướng họ Hoàn dưới quyền Hoàn Ôn trước đây vẫn được trọng dụng: Hoàn Hoát giữ Kinh châu, Hoàn Xung giữ Giang châu; các tướng này đều ủng hộ chính quyền trung ương[5].